Alimlər süni intellektlə dərin saxta videoları aşkar etməyin yolunu tapıblar

Elm adamları saxta videoları müəyyən etmək üçün süni intellektlə süni intellektə qarşı silahlandırırlar.

Süni intellekt tərəfindən yaradılan məzmun bir müddətdir ki, üstünlük təşkil edir, lakin video istehsalı son vaxtlar yeni zirvələrə yüksəlib. Fevral ayında buraxıldığı gündən etibarən OpenAI-nin Sora , hamısı mətn göstərişlərindən istifadə edərək yaradılan hiper-real sintetik məzmunu ilə heyrətləndirir. Onun insanları öz həqiqiliyinə inandırmaq qabiliyyəti belədir, generativ məzmun indi dezinformasiyanın yayılması ilə bağlı artan narahatlıqlara səbəb olur.

Drexel Mühəndislik Kollecindəki Multimedia və İnformasiya Təhlükəsizliyi Laboratoriyası (MISL) on ildən artıqdır ki, təsvirləri manipulyasiya etmək üçün texnologiyaların yaradılması üzərində işləyir.

Hazırda mövcud üsullar süni intellektlə yaradılan videoya qarşı təsirsiz olub. Alimlər ictimaiyyət üçün mövcud olan 11 sintetik təsvir detektorunu qiymətləndiriblər. Bu proqramlar manipulyasiya edilmiş şəkillərin aşkarlanmasında ən azı 90% dəqiqliklə yüksək effektivlik nümayiş etdirdi. Bununla belə, ictimaiyyətə açıq olan AI generatorları tərəfindən yaradılan videoları müəyyən etmək tapşırığı verildikdə, onların performansı 20-30% azaldı.

Drexel Mühəndislik Kollecinin dosenti və MISL-in direktoru Metyu Stamm, PhD, PhD, "Pis aktyorlar tərəfindən yaradılan saxtakarlıqları aşkar etmək üçün yaxşı bir sistem olmadan bu video texnologiyasının buraxıla biləcəyi bir az narahatedicidir" dedi. press-reliz.

Stemm hesab edir ki, texnologiya ictimaiyyətə açıq olduqdan sonra zərərli istifadə qaçılmazdır. "Buna görə də biz media üçün endemik olan nümunə və xüsusiyyətlərdən sintetik videoları müəyyən etmək üçün texnologiyanı inkişaf etdirərək onlardan qabaqda olmaq üçün çalışırıq" dedi.

Son vaxtlara qədər manipulyasiya edilmiş təsvirlər pikselləri dəyişdirmək, sürəti tənzimləmək və ya çərçivələri manipulyasiya etmək üçün foto və video redaktə proqramlarına əsaslanırdı. Bununla belə, bu redaktələr MISL alimlərinin alətlər dəstindən istifadə edərək effektiv şəkildə müəyyən etdikləri rəqəmsal izlər buraxır.